范式转变

我们正从 "不惜一切代价追求性能" 的心态转向 负责任AI（RAI） 框架。在这个新时代，技术成功严格取决于伦理稳健性和安全保障措施。

1. 约束优化

从历史上看，目标是最小化损失函数 $L(\theta)$。新范式将AI视为一个约束优化问题：$$\max P \text{ subject to } C_1, C_2, \dots, C_n$$ 其中 $C$ 代表不可妥协的安全与公平阈值。

2. "体外"与"体内"的差距

模型通常在静态基准上取得最先进（SOTA）的结果（体外），但在现实世界的社会技术环境中（体内）却会因不可预见的交互而出现灾难性失败。

左侧：高准确率/速度，零安全/透明。右侧：代表安全、公平与可解释性的均衡六边形。

示例：高频交易

仅追求性能的模型只要能最大化投资回报率（ROI）就算成功。而负责任AI（RAI）模型即使达到高ROI，如果触发了 "闪崩" 也会被视为失败，因为它缺乏市场稳定性保障。